Task-disentangled Low-Rank Adaptation for Versatile Audio-visual Multi-modal Learning Tasks within a Unified Framework
任务解耦 LoRA:统一框架下的多功能音视频多模态学习
🧭 多模态多任务学习 · 任务解耦 LoRA
用任务解耦 LoRA 在统一 LLM 框架中整合通用知识、任务特定模式与跨任务协作,缓解多任务干扰。
📌 工作参考价值(4 点)
- 在多目标/多场景推荐与搜索统一模型中,可借鉴“通用 LoRA 底座 + 任务调制矩阵”的架构:共享低秩空间保留通用表征,任务特定矩阵做轻量解耦,比完全共享或独立微调更抗干扰,也便于快速接入新任务。
- 跨任务协作专家通过可学习门控显式建模任务间相关性,适合电商 CTR、CVR、GMV 等多目标联合优化,减少负迁移;可优先对相关性强的任务组开启协作路径。
- 以 LLM/LoRA 参数高效适配多模态输入,适合商品图、文案、短视频素材统一编码;按任务插入不同调制层即可扩展类目识别、属性抽取、卖点生成等,不必为每个任务完整微调大模型。
- 若业务要建设多模态统一理解底座,可参考“模型侧与任务侧双重显式协作”思路,避免 naive joint training 带来的互相干扰。